“3·15”晚会曝光AI大模型被“投毒”的乱象,部分机构利用GEO(生成式引擎优化)技术操控AI,使得客户产品在AI推荐中排名前列。其中,“力擎GEO优化系统”被点名,所属企业为北京力思文化传媒有限公司。3月16日,该公司属地监管部门北京市怀柔区市场监督管理局工作人员告诉南都记者,“目前正在积极调查此事。”


“3·15”晚会曝光AI大模型被“投毒”的乱象。

据央视“3·15”晚会,业内人士在电商平台上随机购买一款名叫“力擎GEO优化系统”的软件后,虚构了一款智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令,然后选取其中十余篇虚构软文,通过该系统发布在了互联网上。随后,业内人士在AI大模型平台展开询问:“智能健康手环推荐”,就有两个AI大模型推荐了这款虚构的智能手环,而且排名靠前。

力擎GEO优化系统的运营者李总表示,GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料”、“投毒”,实现客户的商业目的。

南都记者搜索发现,“力擎GEO优化系统”所属企业为北京力思文化传媒有限公司,成立于2018年。3月16日,南都记者致电该公司属地监管部门北京市怀柔区市场监督管理局,该局工作人员表示,针对此事,目前正在积极调查当中。同日,南都记者拨打北京力思文化传媒有限公司公开联系方式,电话均未能接通。

南都记者梳理发现,多家GEO行业相关企业发布AI搜索优化的合规经营声明。其中,杭州有赞科技有限公司发布“关于GEO报道误读的声明”称,有赞在2021年投资南京小裂变网络科技有限公司,主要看重其在企业微信生态的插件工具开发能力,希望加强业务协同。该投资与GEO相关业务不存在任何股权、业务或技术层面的关联。声明指出,经核实,315晚会所提及的GEO相关产品,并非“小裂变”所开发或运营。

AB客(ABKE)也通过官方账号发布声明称,“坚决反对任何形式的虚假宣传、数据造假、恶意操控AI输出结果的行为,不参与、不提供所谓‘洗脑AI’‘操控标准答案’‘一周见效刷排名’等服务。”

采写:南都N视频记者 林诗妍